Инструментът за AI снимки на Илон Мъск генерира реалистични, фалшиви изображения на Тръмп, Харис и Байдън

AI chatbot Grok на Илон Мъск във вторник стартира да разрешава на потребителите да основават генерирани от AI изображения от текстови подкани и да ги разгласяват в X. Почти незабавно хората започнаха да употребяват инструмента, с цел да наводнят уеб страницата на обществените медии с подправени изображения на политически фигури като някогашния президент Доналд Тръмп и вицепрезидентът Камала Харис, както и самият Мъск - ​​някои изобразяват обществените фигури в явно подправени, само че все пак смущаващи обстановки, като присъединяване в атентатите от 11 септември.

За разлика от други съществени принадлежности за фотоси с изкуствен интелект, Grok, основан от стартъпа за изкуствен интелект на Мъск xAI, наподобява има малко защитни огради.

При тестванията на инструмента, да вземем за пример, CNN съумя елементарно да накара Grok да генерира подправени, фотореалистични изображения на политици и политически претенденти, които, извадени от подтекста, биха могли да подведат гласоподавателите. Инструментът също по този начин сътвори доброкачествени, само че безапелационни изображения на обществени персони, като Мъск, който яде пържола в парк.

Някои консуматори на X разгласиха изображения, които споделиха, че са основали с Grok, показващи видни фигури, употребяващи опиати, анимационни герои, извършващи насилствени убийства и сексуализирани изображения на дами в бикини. В една обява, прегледана близо 400 000 пъти, консуматор показа изображение, основано от Grok на Тръмп, провесен от горната част на камион, стрелящ с пушка. Тестовете на CNN потвърдиха, че инструментът е кадърен да основава такива изображения.

Инструментът евентуално ще ускори опасенията, че изкуственият разсъдък може да сътвори детонация от погрешна или подвеждаща информация в интернет, изключително преди президентските избори в Съединени американски щати. Законодатели, групи на гражданското общество и даже самите софтуерни водачи сигнализираха, че злоупотребата с такива принадлежности може да аргументи комплициране и безпорядък за гласоподавателите.

„ Grok е най-забавният AI в света! “ Мъск разгласява в X сряда в отговор на консуматор, който похвали инструмента, че е „ нецензуриран “.

Много други водещи компании за изкуствен интелект започнаха някои стъпки, с цел да предотвратят потреблението на техните принадлежности за генериране на изображения с изкуствен интелект за основаване на политическа дезинформация, макар че изследователите откриха, че потребителите към момента от време на време могат да намерят способи да заобиколят ограниченията за използване. Някои компании, в това число OpenAI, Meta и Microsoft, също включват технология или етикети, с цел да оказват помощ на феновете да разпознават изображения, които са направени с техните AI принадлежности.

Конкурентните обществени медийни платформи, в това число YouTube, TikTok, Instagram и Фейсбук, също са подхванали стъпки за етикетиране на генерирано от AI наличие в излъчванията на потребителите, или посредством потребление на технология, с цел да го открият сами, или като помолят потребителите да разпознават, когато разгласяват такова наличие.

X не отговори незабавно на искане за коментар по отношение на това дали има някакви политики против Grok да генерира евентуално подвеждащи изображения на политически претенденти.

До петък наподобява, че xAI е въвел някои ограничавания за Grok в отговор на сериозни отчети и притеснителните изображения, които потребителите основават и разгласяват. Инструментът към този момент отхвърля да основава изображения на политически претенденти или необятно приети анимационни герои (чиято интелектуална благосъстоятелност принадлежи на други компании), извършващи актове на принуждение или дружно със знаци на тирада на омразата, макар че потребителите означиха, че рестриктивните мерки наподобяват лимитирани единствено до избрани термини и обекти на изображения.

X има политика против шерването на „ синтетични, манипулирани или отвън подтекста медии, които могат да заблудят или объркат хората и да доведат до щета “, макар че не е ясно по какъв начин се ползва тази политика. Самият Мъск сподели видео предишния месец в X, което употребява AI, с цел да наподобява, че Харис е споделила неща, които тя в действителност не е направила - в явно нарушаване на правилата и единствено с емотикони на смеещо се лице, с цел да подскаже на почитателите, че това е подправен.

Новият инструмент за изображения на Grok също идва, когато Мъск е изправен пред рецензии за неведнъж разпространяване на погрешни и подвеждащи изказвания за X, свързани с президентските избори, в това число обява, повдигаща въпроси по отношение на сигурността на машините за гласоподаване. Това също идва дни откакто Мъск беше хазаин на Тръмп за повече от два часа излъчен онлайн диалог по X, в който претендентът на Републиканската партия направи минимум 20 погрешни изказвания без отпор от Мъск.

Други принадлежности за генериране на AI изображения са изправени пред противоположна реакция за разнообразни проблеми. Гугъл сложи на пауза способността на своя чатбот Gemini AI да генерира изображения на хора, откакто беше взривен за основаване на исторически неточни изображения на расите на хората; Генераторът на изображения с изкуствен интелект на Meta беше подложен на рецензия поради компликациите да сътвори изображения на двойки или другари от разнообразни расови среди. TikTok също беше заставен да изтегли AI видео инструмент, откакто CNN откри, че всеки консуматор може да основава реалистично изглеждащи видеоклипове на хора, които споделят каквото и да било, в това число дезинформация за ваксини, без етикети.

Grok в действителност наподобява има някои ограничения; да вземем за пример подкана за искане на голо изображение върна отговор, който споделя: „ за жалост, не мога да генерирам подобен тип изображение “.

В обособен тест инструментът сподели, че също има „ ограничавания за основаване на наличие, което разпространява или може да се преглежда като одобрение на нездравословни стандарти, тирада на омразата или дезинформация “.

„ Важно е да се заобикаля разпространяването на неистини или наличие, което може да подбуди ненавист или разделяне. Ако имате други претенции или се нуждаете от информация по друга тематика, не се колебайте да попитате! “ — сподели Грок.

Въпреки това, в отговор на друга подкана, инструментът генерира изображение на политическа фигура, стояща до знак на тирада на омразата - знак, че каквито и ограничавания да има Grok, те наподобява не се ползват поредно.

– Джон Пасантино от CNN способства за този отчет. Тази история е обновена, с цел да отрази измененията, направени от xAI в Grok.